Vào năm 1932, Hải quân Đế quốc Nhật Bản công bố một yêu cầu về một kiểu máy bay cường kích hoạt động trên tàu sân bay. Các hãng Aichi, Mitsubishi và Nakajima đã đáp ứng yêu cầu này và mỗi hãng đã chế tạo một kiểu nguyên mẫu. Tuy nhiên, không có chiếc nào xem ra thỏa mãn, nên đến năm 1934 lại có yêu cầu về một kiểu máy bay có khả năng hơn nhằm thay thế cho chiếc Yokosuka B3Y1 đã lạc hậu. Chiếc B4Y1 được thiết kế bởi Sanae Kawasaki thuộc Xưởng kỹ thuật Không lực Hải quân Số 1 tại Yokosuka nhằm đáp ứng những nhu cầu mới này. Chiếc B4Y1 được xem chỉ là một kiểu trung gian tạm thời bởi Hải quân Đế quốc Nhật Bản muốn có một chiếc máy bay ném bom-ngư lôi có tính năng bay tốt hơn so sánh được với kiểu máy bay tiêm kích cánh đơn Mitsubishi A5M. Kiểu thiết kế được sản xuất là một máy bay cánh kép với bộ càng đáp cố định và một cấu trúc toàn kim loại được bao phủ bởi kim loại hay vải. Kiểu cánh từ chiếc Kawanishi E7K cũng được sử dụng trên chiếc B4Y1. Chiếc B4Y1 là máy bay cường kích hoạt động trên tàu sân bay đầu tiên của Hải quân Đế quốc Nhật Bản sử dụng một động cơ làm mát bằng không khí. Chiếc B4Y1 có đội bay gồm ba người, phi công ngồi trong buồng lái mở trong khi hoa tiêu và điện báo viên/xạ thủ ngồi trong buồng lái kín. Chiếc nguyên mẫu B4Y1 được sản xuất tại Xưởng kỹ thuật Không lực Hải quân Số 1.